Reliable Eigenspectra for New Generation Surveys

We present a novel technique to overcome the limitations of the applicability of Principal Component Analysis to typical real-life data sets, especially astronomical spectra. Our new approach addresses the issues of outliers, missing information, large number of dimensions and the vast amount of data by combining elements of robust statistics and recursive algorithms that provide improved eigensystem estimates step-by-step. We develop a generic mechanism for deriving reliable eigenspectra without manual data censoring, while utilising all the information contained in the observations. We demonstrate the power of the methodology on the attractive collection of the VIMOS VLT Deep Survey spectra that manifest most of the challenges today, and highlight the improvements over previous workarounds, as well as the scalability of our approach to collections with sizes of the Sloan Digital Sky Survey and beyond.Comment: 7 pages, 3 figures, accepted to MNRA

Meta-Learning Through Learnt Self-Addition

This thesis presents a meta-learning architecture designed to form an agent able to operate in a classic reinforcement learning environment. Drawing on several existing meta-learning techniques, this agent learns its environment by subdividing it between multiple predictive components, each with their own machine learning capabilities. These components are competitive and co-operative, competing for `worth', which is used periodically to remove under-performing components and direct the creation of new ones. Components compete to make as many accurate predictions as possible, balancing number of predictions made against the accuracy they can achieve. Co-operation comes from trading information, either prediction values or memory data, to other components, in return for a portion of any worth the other component receives. Components may vary in internal architecture. They can store different information, can use different machine learning algorithms, can share different information or can subdivide the environment in different ways. They are all measured by the same worth metric, so the agent's component set will consist of a highly heterogeneous pool, determined by which components work best in which roles. This creates a complex set of multiple machine learners, arranged into several trees of information-suppliers and information-user, rather than depending on a single machine learner to handle the entire problem. Meta-learning comes from the agent's ability to learn how to create these structures. It learns to predict which component types will work best in which circumstances, as well as learning which parameters to provide these with when it creates them. This thesis evaluates the basic properties of such an agent under different conditions. Tests cover its ability to correctly evaluate the worth of its components, its ability to learn to usefully select which types of new components to generate, and its ability to learn from one task to improve its performance on the next. Experiments on a variety of learning problems confirm the architecture is able to exhibit the required component creation, deletion and balancing with no internal restructuring between tasks. Several possible future expansions are also explored, using the component-worth metric as a metric for the value of information. Testing suggests this allows the agent to be able to learn an information-seeking drive, which directs it to move to a source of information in order to solve a later task, rather then depending exclusively on the information it receives passively

Neural Network Guided Transfer Learning for Genetic Programming

Programming-by-Example, and code synthesis in general, is a field with many different sub-fields, involving many forms of machine learning and computational logic. With advantages and disadvantages to each, attempts to build effective hybrid solutions would seem to be a promising direction. Transfer Learning (TL) provides a good framework for this, as it allows one of the classic code synthesis techniques, Genetic Programming, to be augmented by past success, to target a particular code synthesis system to the problem domain it is facing. TL allows one type of machine learning algorithm, in this thesis a neural network, to support the core GP process, and combine the strengths of both. This thesis explores the concept of hybrid code synthesis approaches, and then brings the identified strongest elements of each approach together into a single neural network driven Transfer Learning system for Genetic Programming. The TL system operates autonomously, without any human intervention required after the problem set (in example only format) is presented to the system. The thesis first studies how to structure a training corpus for a neural network, across two different experiments, exploring how the constraints placed on a corpus can result in superior training. After this, it studies how GP processes can be guided, to ensure that a hypothetical NN guide would be useful if it could be created and how it can best assist the GP. Finally, it combines the previous studies together into the full end-to-end TL system and tests its performance across two separate problem domain

Aufbau eines themenbezogenen Netzwerkes „Lebensmittelverarbeitung und –qualität“ im Bereich des Bundesprogramms Ökologischer Landbau

Ziel des Netzwerks „Lebensmittelverarbeitung und –qualität“ ist, eine Plattform für den Austausch zwischen Praktikern, Experten und Administration zum Thema Lebensmittelverarbeitung und –qualität zu schaffen. Zu diesem Zweck wurden in verschiedenen Arbeitsschritten die Hemmnisse in der täglichen Arbeit und der Wissens- und Unterstützungsbedarf der klein- und mittelständischen Betriebe des ökologischen Lebensmittelhandwerks identifiziert. Neben der Auswertung anderer Projekte des Bundesprogramms Ökologischer Landbau wurden in erster Linie Gespräche und Interviews mit Praktikern geführt. Für die Produktgruppen Brot und Backwaren, Fleisch und Wurstwaren sowie Milch und Milchprodukte wurden regionale Kleingruppenworkshops veranstaltet, deren Ergebnisse in einem bundesweiten produktgruppenübergreifenden Workshop diskutiert wurden. Dabei zeigt sich, dass handwerkliche Betriebe eine Schlüsselrolle bei der Entwicklung der ökologischen Lebensmittelwirtschaft einnehmen. Durch ihre Nähe zum Verbraucher sind sie besonders geeignet Handlungsveränderungen im Sinne dieser Entwicklung zu erzielen. Voraussetzung dafür ist jedoch ihre zukunftsorientierte Profilierung als Handwerk. Die handwerklichen Qualitätsproduzenten sind jedoch noch wenig organisiert und erfahren wenig Unterstützung. Ihr Wissensbedarf ist komplex und wird aus einer Vielzahl von Wissensquellen gespeist. Die Profilierung des Handwerks ist in erster Linie eine regionale Aufgabe, die ein geändertes Selbstverständnis und eine hohe Innovationsbereitschaft erfordert. Eine überregionale Unterstützung kann diesen Profilierungsprozess aber beschleunigen. Die Funktion des Netzwerks als Plattform des Austauschs sollte sich auf drei Bereiche fokussieren: 1. Organisation eines Netzwerks der Bildungsanbieter für eine gemeinsame Aus- und Weiterbildung im Bereich Verarbeitung ökologischer Lebensmittel; 2. Konzeption und Diffusion eines neuen Selbstverständnis der handwerklichen Verarbeitung ökologischer Lebensmittel in die Gesellschaft und Politik; 3. Konzeption und Unterstützung von modellhaften regionalen handwerklichen Innovationswerkstätten

Netzwerk "Ökologisches Lebensmittelhandwerk"

Das Netzwerk ökologisches Lebensmittelhandwerk unterstützt den Wissenstransfer und die Innovationsentwicklung. Das vorliegende Projekt zielte darauf ab - die Bildungsanbieter im ökologischen Lebensmittelhandwerk zu vernetzen; - das Selbstverständnis des ökologischen Lebensmittelhandwerks zu profilieren und - auf der Basis vorhandener Kooperationserfahrungen im Handwerk einen regionalen Handwerksverbund zu konzipieren. Die kooperierenden HandwerkerInnen formulierten diese Zielsetzungen im Vorläuferprojekt als ihren Bedarf. Das vorliegende Projekt erzielte folgende Ergebnisse: es wurde - zusammen mit vielen HandwerkerInnen ein Leitbild für das ökologische Lebensmittelhandwerk erarbeitet; - ein Konzept für eine regionale Innovationswerkstatt konzipiert und mit regionalen Promotoren erste Schritte für die Umsetzung geplant und - ein gemeinsamer Internetauftritt der Bildungsanbieter konzipiert und umgesetzt (www.biohandwerk.de). Auf der Basis der Ergebnisse wurde anschließend geprüft, ob es Sinn macht, eine bundesweite Einrichtung im ökologischen Lebensmittelhandwerk zu etablieren, die die Interessen der Betriebe fördert, Innovationen entwickelt und die Kooperation vorwärts treibt. Ergebnis war, dass eine solche Einrichtung aus volkswirtschaftlicher Sicht und für den einzelnen Lebensmittelhandwerker sehr nützlich wäre. Unter Kosten/Nutzen-Aspekten muss jedoch auch festgehalten werden, dass auf eine solche Einrichtung viele unterschiedliche Interessen gerichtet sind und die einzelnen Handwerker zu knapp an Ressourcen sind, um eine solche Einrichtung zu tragen. Es wird daher für die nächsten Jahre empfohlen, das aufgebaute Netzwerk informell auf einer „low-budget„-Basis weiter zu führen und die Aktivitäten in Abhängigkeit von projektgebundenen Ressourcen auszuweiten

Assessment of Hiding the Higher-Order Leakages in Hardware - what are the achievements versus overheads?

Higher-order side-channel attacks are becoming amongst the major interests of academia as well as industry sector. It is indeed being motivated by the development of countermeasures which can prevent the leakages up to certain orders. As a concrete example, threshold implementation (TI) as an efficient way to realize Boolean masking in hardware is able to avoid first-order leakages. Trivially, the attacks conducted at second (and higher) orders can exploit the corresponding leakages hence devastating the provided security. Hence, the extension of TI to higher orders was being expected which has been presented at ASIACRYPT 2014. Following its underlying univariate settings it can provide security at higher orders, and its area and time overheads naturally increase with the desired security order. In this work we look at the feasibility of higher-order attacks on first-order TI from another perspective. Instead of increasing the order of resistance by employing higher-order TIs, we realize the first-order TI designs following the principles of a power-equalization technique dedicated to FPGA platforms, that naturally leads to hardening higher-order attacks. We show that although the first-order TI designs, which are additionally equipped by the power-equalization methodology, have significant area overhead, they can maintain the same throughput and more importantly can avoid the higher-order leakages to be practically exploitable by up to 1 billion traces

Multi-Donor Neural Transfer Learning for Genetic Programming

Genetic programming (GP), for the synthesis of brand new programs, continues to demonstrate increasingly capable results towards increasingly complex problems. A key challenge in GP is how to learn from the past, so that the successful synthesis of simple programs can feed in to more challenging unsolved problems. Transfer Learning in the literature has yet to demonstrate an automated mechanism to identify existing donor programs with high-utility genetic material for new problems, instead relying on human guidance. In this paper we present a transfer learning mechanism for GP which fills this gap: we use a Turing-complete language for synthesis, and demonstrate how a neural network (NN) can be used to guide automated code fragment extraction from previously solved problems for injection into future problems. Using a framework which synthesises code from just 10 input-output examples, we first study NN ability to recognise the presence of code fragments in a larger program, then present an end-to-end system which takes only input-output examples and generates code fragments as it solves easier problems, then deploys selected high-utility fragments to solve harder ones. The use of NN-guided genetic material selection shows significant performance increases, on average doubling the percentage of programs that can be successfully synthesised when tested on two separate problem corpora, in comparison with a non-transfer-learning GP baseline